Sur le réseau social X, le CSA belge traque les contenus pornographiques avec une intelligence artificielle

Le Conseil supérieur de l’audiovisuel (CSA), le régulateur du secteur en Belgique francophone, a, pour la première fois, utilisé l’intelligence artificielle pour mener une enquête sur une plate-forme en ligne et vérifier si elle contrôlait les contenus dits problématiques, ou préjudiciables.

Lire aussi : Article réservé à nos abonnés L’enquête contre X, un test de crédibilité majeur pour le règlement européen des réseaux sociaux

C’est le réseau X, propriété d’Elon Musk, qui a été l’objet de cette expérience, et le résultat est édifiant : malgré les nouvelles réglementations européennes qui imposent notamment des règles strictes pour le contrôle de l’âge des utilisateurs, l’accès aux contenus pornographiques, sur lesquels avait choisi d’enquêter le CSA, est presque totalement libre. Et à peine 10 % d’entre eux sont désormais supprimés par les services de modération de X.

Le « monitoring » auquel s’est livrée l’institution belge s’est déroulé de septembre à décembre 2023, avec l’examen de quelque 5 000 contenus potentiellement problématiques, dont 1 041 ont fait l’objet d’une étude approfondie. Et parmi ceux-ci, 908, soit 89 %, avaient un caractère clairement pornographique. Produits par des « amateurs », qui ne vendent pas leurs contenus, mais aussi des « professionnels » qui, par le biais de X, orientent les clients vers des sites spécialisés et payants.

Licenciement de salariés chargés de la modération

Les comptes sur l’ex-Twitter peuvent, juge le CSA, être considérés comme des médias audiovisuels en ligne qui partagent des vidéos et ils doivent donc être soumis au règlement du Digital Services Act (DSA), qui impose, depuis août 2023, des obligations de transparence et de modération. Or, cette dernière est « quasiment absente » sur X, relève le rapport, en rappelant que les autorités australiennes ont, elles, établi que la plate-forme d’Elon Musk avait congédié plus de 1 200 de ses employés chargés du contrôle et de la modération. Le régulateur australien avait imposé une amende équivalant à 233 000 euros au réseau pour contrôle insuffisant.

Selon le CSA, X contrevient donc aux règles du DSA, mais il faut, en outre, considérer que ce réseau maintient volontairement de tels contenus pour soutenir son activité et ces flux.

Lire aussi : Article réservé à nos abonnés La dérive complotiste d’Elon Musk culmine avec son tweet antisémite et fait vaciller X

Le coordinateur belge chargé de l’application du DSA va être saisi du dossier, comme la Commission européenne, explique Julien Giry, chargé de l’information et de la désinformation au CSA. L’Irlande, où est établi le siège européen de X, sera également saisie et son régulateur invité à envisager des sanctions. « Le simple fait d’installer un petit bouton permettant de dire “J’ai plus de 18 ans” ne peut être considéré comme un système efficace, pertinent, proportionné », juge Karim Ibourki, président du CSA.

Il vous reste 30% de cet article à lire. La suite est réservée aux abonnés.